MerchantBench: Benchmarking LLM Agents for Long-Term Coherence in E-Commerce Operations
MerchantBench：电商运营中LLM智能体长期连贯性基准
🧭 Agent 长期连贯性评估
Alibaba Group · State Key Lab of CAD&CG, Zhejiang University · School of Software Technology, Zhejiang University · School of Software and Microelectronics, Peking University · College of Computer Science and Artificial Intelligence, Fudan University
提出首个电商卖家长期运营模拟基准，评估LLM智能体在365天中维持连贯决策的能力，揭示LLM远逊于人类
📌 工作参考价值（4 点）
- 长期模拟环境构建：可借鉴其365天订单级模拟设定，将“供应商事件-采购-上架-定价-订单-现金流”时序闭环用于训练或评估搜推广场景中的Agent，尤其适合需要多步决策且反馈延迟的任务（如选品、动态定价）。
- 决策依赖与现金流的约束设计：采购、定价、现金流之间形成硬性依赖，当前行为会影响未来选择空间，这对设计推荐Agent的“预算受限序列决策”有很大启发，例如广告竞价中的预算分配与出价调整。
- 混合延迟反馈的处理框架：MerchantBench区分上游即时事件与下游延迟订单结果，这种双通道反馈模式可复用于搜索推荐系统，帮助Agent学会在延迟转化数据下的自适应策略。
- 评估指标与人类对照：用最终净资产等累计指标衡量长期连贯性，并引入人类基线，这种做法可迁移到业务Agent评测中，避免仅看短期收益忽视长期效果，从而设计更鲁棒的线上评估体系。